昨天講到上下文層與執行層,今天把最難的那層數據層以及人工干預的保護措施介紹完。
數據層護欄管的是"世界最終會被改成什麼樣",把"誰能對哪條數據做甚麼"交給一層穩定的、經由人類審查的機制強制執行:數據庫的行級安全策略、約束與校驗器、受控視圖與存儲過程,以及受信任運行時綁定、無法被偽造的訪問上下文。
這一層的價值在於它"不依賴上面兩層是否正確" --即使提示注入得手、生成的程式完全漏寫了權限判斷,越權操作仍會在數據層被拒絕。
人工干預(human in the loop, 又稱人在迴路)是個關鍵的保護措施,它讓Agent能夠在不損害用戶體驗的情況下提升實際性能。這在部署早期尤為重要,有助於識別失敗模式,發現邊緣情況並建立健壯的評估週期。
實施人工干預,可以讓Agent在無法完成任務時,平穩地移交控制權。在客戶服務中,這意味著將問題升級到人工客服; 對於Coding Agent,這意味著將控制權交還給開發者。
通常有兩種情況會觸發人工干預:
1.超過失敗閾值:為Agent的重試次數或操作次數設置上限。如果Agent超過限制,就應升級到人工干預。(在使用claude code時,如果有仔細去看它思考跟運行的對話,你就會發現,有可能是我太無聊😅)
2.高風險操作:涉及敏感、不可逆或高風險的操作時,應觸發人工監督,至少團隊對Agent可靠性建立起足夠信心之前是如此。典型案例包括授權大額退款/付款。
回到Harness 5要素的地方
先說清楚兩個公式的關係,以免之後記成兩套骨架。我們前面討論的結構骨架只有一個。就是一開始說的:** Agent = model + 上下文 + 工具**
Agent = Model + Harness不是與它並列的另一套劃分,而是同一事物在生產型態下的展開 -- Harness把"上下文"和"工具"這兩項再細分為上下文管理、工具接口、約束、驗證、糾正,這5項職責,因此它是"建構"這一部份內部的一個觀察視角。
今天已經是29天了,目前Agent的概論大略都介紹完了,其餘基本上都是講過的地方作大量的深入探討。
做這系列文章,我很任性的加入RAG的地方(雖然流量看起來不是很好,哈哈🥵),裡面有許多艱深的公式或是理解,沒辦法,有時候背後的邏輯就是這樣成立的。RAG還有些許部分沒有講完,我再接下去會把這部分補齊。
雖然有時候我會拖到23.多才壓線發文(我記得有2~3天🫠),但是可以再複習一次這些內容,還是挺酷的,尤其是實作的地方,或許我得再加入一些我們常見的套件的使用方式&教學,總而言之,學無止境,哈哈,尤其在AI瘋狂暴漲的潮流下,我們更應該主動地去吸收這些訊息。
感謝大家的觀看,接下去幾天我還會把我想講的寫在文章裡。
https://openai.com/index/gpt-6-astra/
2026/9/5,apenai發布最新模型GPT-6 ASTRA為時下最強的模型,同時開放到目前付費方案。
另外有傳聞,接下來幾個月opus、fable、gemini pro都會推出新版本(有點像廢話),這周新的AI模型META-muse spark1.3、gemini 3.8 flash、Qwen 3.8 max,都發布,每個模型的強項都不同,大家可以把合適的模型應對到相應的場景/任務。